MySQL数据库float数据类型 您所在的位置:网站首页 mysql 表字段长度 MySQL数据库float数据类型

MySQL数据库float数据类型

2023-11-21 11:22| 来源: 网络整理| 查看: 265

怎么在mysql中使用float类型,特别是用到金钱时我们可能会用双精度来做,我们知道mysql的float类型是单精度浮点类型不小心就会导致数据误差

对于单精度浮点数Float:  当数据范围在±131072(65536×2)以内的时候,float数据精度是正确的,但是超出这个范围的数据就不稳定,没有发现有相关的参数设置建议:将float改成double或者decimal,两者的差别是double是浮点计算,decimal是定点计算,会得到更精确的数据。

float类型

float(m,d),m表示的是最大长度,d表示的显示的小数位数

例如:float(6,1) 表示:

这个浮点数最大长度为6,也就是六位,然后小数部分为1位 至于存储范围,取决于你是否定义了无符号。 无符号的话,最小是0.0 最大能存储到99999.9,如果有符号的话,范围是:-99999.9至99999.9

float列类型默认长度查不到结果,必须指定精度, 比如 num  float,  insert into  table (num) values (0.12); select  * from table where num=0.12的话,empty set。

改成:num float(9,7),  insert into  table (num) values (0.12); select  * from table where num=0.12的话会查到这条记录。

近似值问题:

mysql> insert into tt(num)values(123456.8); Query OK, 1 row affected (0.00 sec) mysql> select  * from  tt; +------------+ | num        | +------------+ | 123456.797 | +------------+ 1 row in set (0.00 sec) 注:小数位数不够,自动补齐,但是存在一个问题就是如上的近似值。

又如:

mysql> insert into tt(num)values(2.888888); Query OK, 1 row affected (0.00 sec) mysql> select  * from  tt; +------------+ | num        | +------------+ | 123456.797 | | 123456.797 | | 123456.867 | |      2.800 | |      2.889 | +------------+ 5 rows in set (0.00 sec)

注:小数位数超了,自动取近似值。

一、浮点数的概念及误差问题

浮点数是用来表示实数的一种方法,它用 M(尾数) * B( 基数)的E(指数)次方来表示实数,相对于定点数来说,在长度一定的情况下,具有表示数据范围大的特点。但同时也存在误差问题,这就是著名的浮点数精度问题!浮点数有多种实现方法,计算机中浮点数的实现大都遵从 IEEE754 标准,IEEE754 规定了单精度浮点数和双精度浮点数两种规格,单精度浮点数用4字节(32bit)表示浮点数,格式是:1位符号位 8位表示指数 23位表示尾数    双精度浮点数8字节(64bit)表示实数,格式是:1位符号位 11位表示指数 52位表示尾数    同时,IEEE754标准还对尾数的格式做了规范:d.dddddd...,小数点左面只有1位且不能为零,计算机内部是二进制,因此,尾数小数点左面部分总是1。显然,这个1可以省去,以提高尾数的精度。由上可知,单精度浮点数的尾数是用24bit表示的,双精度浮点数的尾数是用53bit表示的,转换成十进制: 2^24 - 1 = 16777215;  2^53 - 1 = 9007199254740991 由上可见,IEEE754单精度浮点数的有效数字二进制是24位,按十进制来说,是8位;双精度浮点数的有效数字二进制是53位,按十进制来说,是16 位。显然,如果一个实数的有效数字超过8位,用单精度浮点数来表示的话,就会产生误差!同样,如果一个实数的有效数字超过16位,用双精度浮点数来表示,也会产生误差!对于 1310720000000000000000.66 这个数,有效数字是24位,用单精度或双精度浮点数表示都会产生误差,只是程度不同:   单精度浮点数:1310720040000000000000.00;双精度浮点数: 1310720000000000000000.00 可见,双精度差了 0.66 ,单精度差了近4万亿! 以上说明了因长度限制而造成的误差,但这还不是全部!采用IEEE754标准的计算机浮点数,在内部是用二进制表示的,但在将一个十进制数转换为二进制浮点数时,也会造成误差,原因是不是所有的数都能转换成有限长度的二进制数。对于131072.32 这个数,其有效数字是8位,按理应该能用单精度浮点数准确表示,为什么会出现偏差呢?看一下这个数据二进制尾数就明白了 10000000000000000001010001......     显然,其尾数超过了24bit,根据舍入规则,尾数只取 100000000000000000010100,结果就造成测试中遇到的“奇怪”现象!131072.68 用单精度浮点数表示变成 131072.69 ,原因与此类似。实际上有效数字小于8位的数,浮点数也不一定能精确表示,7.22这个数的尾数就无法用24bit二进制表示,当然在数据库中测试不会有问题(舍入以后还是7.22),但如果参与一些计算,误差积累后,就可能产生较大的偏差。



【本文地址】

公司简介

联系我们

今日新闻

    推荐新闻

    专题文章
      CopyRight 2018-2019 实验室设备网 版权所有